تأثیر منفی هوش مصنوعی بر کیفیت پژوهش‌های علمی

به گزارش «راهبرد معاصر»؛ مواردی که به تازگی ثبت شده، شیوع پدیده استفاده فزاینده از هوش مصنوعی در تهیه نشریات علمی و کیفیت پایین آنها را تأیید کرده است، ازجمله اینکه مطالعات برخی مجلات تخصصی حاوی گزارش های مبتنی بر برنامه های فناوری هوش مصنوعی بود که نشان می دهد دارای تصاویر بی دقت هستند.

گرچه متخصصان بر اهمیت استفاده از ابزارهایی مانند «ChatGPT» برای کمک به تولید محتوا، به ویژه با توجه به ترجمه برای محققانی که زبان مادری آنها انگلیسی نیست، اعتراف کرده‌اند، ولی گزارش خبرگزاری فرانسه نشان می دهد مطالعات منتشر شده اخیر به وسیله برخی مجلات علمی حاکی از اطلاعات نه چندان صحیح بوده است.

هوش مصنوعی احتمالاً در 60 هزار مقاله علمی سال 2023 یا یک درصد تولید سالانه استفاده شده است

در یک مطالعه رد شده، تصویری از پای انسان مشاهده می شد که حاوی استخوان‌هایی بیشتر از حد معمول بود. موضوع به این تصاویر نادرست محدود نمی‌شود، زیرا به نظر می‌آید برجسته‌ترین مشکلات در این حوزه مربوط به «ChatGPT» است؛ ابزار مکالمه‌ای که به وسیله شرکت آمریکایی «Open AI» و مبتنی بر هوش مصنوعی ساخته شده است.

اوایل ماه مارس شبکه‌های اجتماعی شاهد انتشار گسترده مطالعه‌ای بودند که به وسیله گروه انتشارات علمی بریتانیایی Elsevier منتشر شد که با عبارت «اینجا مقدمه‌ موضوع شماست» آغاز می شد که فرمول معمولی پاسخ های ChatGPT  است.

کارخانه تولید مقاله

با وجود این، برخی متخصصان گزارش کردند، اشتباهات شرم آوری که به وسیله کارشناسان مسئول حوزه پژوهش و نشر مطالعات علمی قبل از انتشار نادیده گرفته می شود، نادر هستند و پژوهش های اینچنینی معمولاً از زیر دست کمیته بررسی پژوهش های علمی مجلات معتبر عبور نمی کند. در هر صورت استفاده از هوش مصنوعی اغلب به سختی قابل تشخیص، اما به وضوح در ادبیات علمی رو به افزایش است.

اندرو گری، کتابدار کالج دانشگاهی لندن در میلیون‌ها مقاله علمی به جست وجوی کلماتی مانند «دقیق»، «پیچیده» یا «قطعاً» پرداخت که ابزارهای هوش مصنوعی اغلب از آن‌ها استفاده می‌کنند. وی دریافت، هوش مصنوعی احتمالاً در 60 هزار مقاله علمی سال 2023 یا یک درصد تولید سالانه استفاده شده است و انتظار می رود این آمار سال جاری افزایش قابل توجهی داشته باشد.

انجمن watch retraction آمریکا اعلام کرد، موارد پس دادن مقالات علمی در سال 2023 به رکورد 13 هزار مورد رسید. ایوان اورانسکی، یکی از بنیانگذاران انجمن گفت، هوش مصنوعی اکنون چیزی شبیه کارخانه انتشار انبوه پژوهش های کاذب است.

به گفته الیزابت بک، میکروبیولوژیست هلندی که متخصص تشخیص تصاویر جعلی است، کارخانجات هوش مصنوعی تعداد زیادی مقاله بی کیفیت، تقلبی یا نادرست تولید می کنند.

این اعتقاد وجود دارد، کارخانجات تولید مقاله منبع حدود دو درصد مطالعات منتشر شده سالانه هستند، اما این تعداد به دلیل استفاده خود کارشناس از هوش مصنوعی افزایش قابل توجهی نشان می دهد.

 
اورانسکی معتقد است، هوش مصنوعی مشکلی طاقت فرسا را افزایش می دهد و آن، اینکه تقاضای سیری ناپذیر ناشران و دانشگاه ها برای مقالات، محققانی را که بر مبنای تولیدشان طبقه بندی می شوند، زیر فشار می گذارد و باعث ایجاد دور باطل می شود. در عین حال، نظارت ها با هدف مبارزه با کارخانجات مطالعاتی و تولید مقاله ناکافی است.

هفته گذشته یک پژوهشگر آمریکایی در مجله Wiley تحقیقی کشف کرد که به نظر می آید کپی شده یکی از مقاله هایش باشد که با استفاده از ChatGPT بازنویسی شده است. ساموئل پین، استاد بیوانفورماتیک دانشگاه بریگام یانگ به خبرگزاری فرانسه گفت، در ماه مارس گذشته موظف شد اعتبار این تحقیق را بررسی کند. وقتی متوجه شد با سرقت علمی و نتیجه یکی از مطالعاتش مواجه است که به وسیله هوش مصنوعی بازنویسی شده بود، با انتشار آن موافقت نکرد. وی افزود: از پذیرش و انتشار تحقیق به سرقت رفته به وسیله مجله دیگری به جای رد کردن آن شوکه شدم.